Hierarchical Quantization with Domain-Adaptive Sparse Routing for Generative Cross-Domain Recommendation
面向生成式跨域推荐的分层量化与域自适应稀疏路由方法
🧭 生成式跨域推荐 · 分层语义ID与自适应路由 ★ 深度解读
City University of Hong Kong · Kuaishou Technology
提出分层共享-路由量化与稀疏专家混合的生成式跨域推荐框架，结合路由一致性正则化，显著提升稀疏域性能。
📌 工作参考价值（4 点）
- 分层量化码本设计：多域业务中，可构建共享粗粒度码本捕获通用语义（如“运动鞋”），并用可路由的细粒度码本捕捉品类特有细节（如“篮球鞋低帮”），替代全共享或全独立码本，适用于跨品类生成式推荐。
- 稀疏 MoE 的 shared+specialized 结构：在跨域 Transformer 中，始终激活一个共享专家处理通用模式，同时通过 Gumbel-Softmax 路由选择激活一个特化专家，实现条件化参数分配，既保持推理高效性又提升域特异性，适合大促场景下统一多域模型。
- 跨粒度路由一致性正则化：生成 Semantic ID 时，每个 item 对应多个 token，强制其路由分布与 item 级池化分布对齐（KL 散度），可有效降低 token 级路由变异，提高 item 表示连贯性，实现简单，仅需在 loss 中加入该项。
- 负载均衡防止路由坍塌：对码本或专家路由概率施加均匀分布偏差正则，简单有效避免少数容量被过分使用，确保所有专家得到利用，工程上易于落地。